최근 흰색 롱패딩을 입은 프란치스코 교황의 사진이 각국 사회관계망서비스(SNS)에서 조회수 수백만 건을 기록하는 등 화제를 모았다. 일각에서 교황의 '패션 센스'를 두고 찬사를 보냈으나, 이는 인공지능(AI)로 만든 가짜 사진으로 판명 났다.
이에 대해 일각에서는 "금융권에서 이런 일이 일어난다면 재앙이 일어날 것"이라는 등 우려를 제기하고 나섰다.
"'힙스터' 교황 진짜인 줄"
28일(현지시간) 미국 CNBC, CNN 방송 등은 사람들을 혼란에 빠뜨린 교황의 사진들은 이미지 생성 AI '미드저니'로 만든 가짜로 판명됐다고 보도했다. 확산된 이미지들을 언뜻 보면 실제 교황 같지만, 일부 사진들에 나타난 교황의 손을 보면 매우 부자연스럽다. 이는 많은 AI 생성 사진에서 관찰되는 모습이다.
CNN은 가톨릭교회에서 교황의 의복은 종교적 의미를 담고 있으며, 이처럼 조작된 사진이 가톨릭에 대한 불신과 공격을 유발할 수 있다며 우려를 제기했다. AI 기술 발전에 따른 유사한 문제는 이번이 처음이 아니다. 앞서 도널드 트럼프 전 미국 대통령이 자신이 검찰에 체포될 가능성이 있다고 주장하고 나선 직후, 그가 수갑을 차고 연행되는 모습의 가짜 사진이 유포되면서 논란이 일어난 바 있다.
금융 전문가인 폴 데이비스와 정보통신(IT) 전문가인 파미 올슨은 "온라인 가짜와 디지털 뱅크런(대규모 예금인출)은 무서운 혼종"이라는 제목으로 블룸버그 칼럼을 게시했다.
이들은 "76세의 트럼프가 전력 질주하는 사진과 달리, '힙스터' 교황은 진짜라고 믿을 수 있을 만큼 그럴 듯 하다"고 평가했다. 그러면서 "이제 연방준비제도(Fed·연준)의 제롬 파월 의장이나 JP모건체이스의 제이미 다이먼 회장과 같이 널리 알려진 중앙 은행가나 은행 임원이 주요 대출 기관에 대해 그럴 듯 하지만 문제가 되는 말을 하는 '가짜 비디오'를 상상해 보라. 디지털 뱅크런은 시작하는 것보다 멈추는 것이 훨씬 더 어렵다"고 경고했다.
그러면서 "모든 사람이 모든 곳에서 금융계의 재앙적 범죄의 가능성에 대해 경계해야 한다"면서 "시장은 이미 불안정하고 예금자 심리는 불안정하다"고 덧붙였다.
AI 전문가 헨리 아이더는 최근 영국 일간지 '아이'(I)와의 인터뷰에서 "사진이 진짜인지 만들어진 것인지를 구별하는 것은 이미 매우 어렵다"며 "가짜정보를 퍼뜨리려는 배우들과 기관들이 이러한 도구를 무기화할 수 있다"고 지적했다.
워싱턴포스트(WP)도 "이 사건을 통해 AI가 어떻게 쉽게 선전을 만드는 데 사용될 수 있는지, 어떻게 쉽게 사회를 불안하게 하는 도구로 무기화될 수 있는지 분명해졌다"고 강조했다.
"AI 규제해야 한다" 움직이는 전문가·국가들
이처럼 AI에 대한 우려는 커지는 실정이다. 미국 비영리단체 '삶의 미래 연구소'(FLI)에 따르면 일론 머스크 테슬라 최고경영자(CEO), 애플 공동창업자 스티브 워즈니악, 세계적 베스트셀러 작가인 유발 하라리 등 AI 및 IT 전문가 1000여명은 AI가 인류에 심각한 위험성을 미칠 수 있다며 최첨단 AI 시스템의 개발을 일시 중단하자고 촉구했다.이들은 공개 서한에서 "강력한 AI 시스템은 그 효과가 긍정적이고 그 위험을 관리할 수 있다는 확신이 있을 때만 개발돼야 한다"고 강조했다.
영국 정부도 최근 AI 관련 백서를 발간하고 실제로 AI가 활용되는 방식에 맞춘 상황별 접근방식을 마련할 것을 규제 당국에 촉구했다. AI가 37억 파운드(약 6조원) 규모의 경제 효과를 가져올 것으로 추산하면서도, AI가 기존 법률을 준수하고 개인을 차별하거나 불공정한 상업적인 결과를 초래하지 않아야 한다는 것이다.
유럽연합(EU) 경찰기구 유로폴도 온라인 피싱과 허위 정보 유포, 사이버 범죄 등에 챗GPT와 같은 첨단 AI가 오용될 수 있다고 경고하면서 윤리적·법적 우려를 제기했다.
한국에서도 AI 규제에 대한 논의가 이뤄지고 있다. 국회 과학기술정보방송통신위원회(과방위)의 법안소위는 지난 2월 '인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안'을 통과시켰다. 해당 법안은 국회 과방위에 발의된 7개의 인공지능 관련 법안을 통합한 법안이며, 인간의 생명과 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 부분을 '고위험 영역 인공지능'으로 설정했다.
고위험영역 인공지능을 이용한 제품 또는 서비스를 제공하려는 사업자는 이용자에 대한 고위험 인공지능사용고지 의무와 인공지능의 신뢰성과 안전성을 확보하기 위한 조치의무가 있다. 법안은 국회 법제사법위원회와 본회의 심사를 남겨두고 있다.
신현보 한경닷컴 기자 greaterfool@hankyung.com
관련뉴스
